由
与
相互独立,
于是
是马尔科夫链, 且
.